🗺️ Isomap

🔷 1. Суть метода

• Manifold learning: сохраняет геодезические расстояния (по многообразию)
• Нелинейное снижение размерности: развертывает изогнутые многообразия
• Граф соседей: строит k-NN граф или ε-граф
• Кратчайшие пути: вычисляет расстояния через граф (алгоритм Дейкстры/Floyd-Warshall)
• MDS: применяет классическое многомерное шкалирование к геодезическим расстояниям

🔷 2. Базовый код

from sklearn.manifold import Isomap
import numpy as np

# Базовое использование
isomap = Isomap(
    n_neighbors=5,
    n_components=2,
    metric='minkowski'
)
X_reduced = isomap.fit_transform(X)

# Получить геодезические расстояния
dist_matrix = isomap.dist_matrix_

# Реконструкция
X_reconstructed = isomap.reconstruction_error()

print(f"Reconstruction error: {isomap.reconstruction_error():.3f}")

🔷 3. Ключевые параметры

🔷 4. Алгоритм работы

1. Построение графа: создать k-NN граф для всех точек
2. Кратчайшие пути: вычислить расстояния между всеми парами точек через граф (геодезические)
3. MDS: применить классическое многомерное шкалирование:
   • Центрировать матрицу расстояний
   • Вычислить собственные векторы и значения
   • Выбрать k наибольших собственных векторов
4. Вложение: координаты = sqrt(λ_i) · v_i

Геодезическое расстояние: длина кратчайшего пути по многообразию

🔷 5. Выбор n_neighbors

# Тестировать разные значения
from sklearn.metrics import pairwise_distances
import matplotlib.pyplot as plt

neighbors = [5, 10, 15, 20, 30]
errors = []

for n in neighbors:
    iso = Isomap(n_neighbors=n, n_components=2)
    X_iso = iso.fit_transform(X)
    error = iso.reconstruction_error()
    errors.append(error)
    print(f"n={n}: error={error:.3f}")

# Визуализировать
plt.plot(neighbors, errors, 'o-')
plt.xlabel('n_neighbors')
plt.ylabel('Reconstruction Error')
plt.title('Выбор n_neighbors')
plt.show()

# Выбрать минимум или "колено"

🔷 6. Когда использовать

from sklearn.preprocessing import StandardScaler
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)

from scipy.sparse.csgraph import connected_components

# Построить граф
from sklearn.neighbors import kneighbors_graph
G = kneighbors_graph(X, n_neighbors=5, mode='distance')

# Проверить связность
n_components, labels = connected_components(G)
print(f"Компонент связности: {n_components}")
# Должна быть 1!